AI засилва заплахата от дезинформация в една голяма година за изборите в световен мащаб
ЛОНДОН (AP) — Изкуственият интелект засилва заплахата от дезинформация за изборите в световен мащаб, като улеснява всеки със смартфон и коварно въображение да създава фалшиви – но убедително – съдържание, насочено към заблуда на гласоподавателите.
Това бележи квантов скок отпреди няколко години, когато създаването на фалшиви снимки, видеоклипове или аудиоклипове изискваше екипи от хора с време, технически умения и пари. Сега, използвайки безплатни и евтини услуги за генеративен изкуствен интелект от компании като Google и OpenAI, всеки може да създава висококачествени „deepfakes“ само с обикновена текстова подкана.
Вълна от AI deepfakes, свързана с избори в Европа и Азия се разпространява в социалните медии от месеци, служейки като предупреждение за повече от 50 страни, които се насочват към урните тази година.
„Не е нужно да гледате надалеч, за да видите някои хора... явно объркани дали нещо е реално или не“, каза Хенри Айдер, водещ експерт по генеративен ИИ, базиран в Кеймбридж, Англия.
Въпросът вече не е дали AI deepfakes може да повлияе на изборите, а колко влиятелни ще бъдат те, каза Айдер, който ръководи консултантска фирма, наречена Latent Space Advisory.
Докато президентската надпревара в САЩ се нажежава, директорът на ФБР Кристофър Рей наскоро предупреди за нарастващата заплаха, като каза, че генеративният AI улеснява „чуждестранните противници да се ангажират със злонамерено влияние“.
С AI deepfakes, изображението на кандидата може да бъде размазано или смекчено. Гласоподавателите могат да бъдат насочвани към или далеч от кандидати - или дори да избегнат изцяло изборите. Но може би най-голямата заплаха за демокрацията, казват експертите, е, че вълната от AI deepfakes може да подкопае доверието на обществото в това, което вижда и чува.
Някои скорошни примери за AI deepfakes включват:
— Видеоклип на прозападния президент на Молдова, който хвърля подкрепата си зад политическа партия, приятелски настроена към Русия.
— Аудиоклипове на Словакия Лидерът на либералната партия обсъжда фалшифицирането на вота и повишаването на цената на бирата.
— Видео на опозиционен депутат в Бангладеш — консервативна нация с мюсюлманско мнозинство — облечена в бикини.
Новостта и сложността на технологията затруднява проследяването кой стои зад AI deepfakes. Експерти казват, че правителствата и компаниите все още не са в състояние да спрат потопа, нито се движат достатъчно бързо, за да решат проблема.
С подобряването на технологията „окончателните отговори за голяма част от фалшивото съдържание ще бъдат трудно се намира“, каза Айдер.
РОЗИРАНЕ НА ДОВЕРИЕТО
Някои дълбоки фалшификати с изкуствен интелект имат за цел да посеят съмнение относно лоялността на кандидатите.
В Молдова, източноевропейска държава, граничеща с Украйна, прозападният президент Мая Санду е била честа мишена. Една AI deepfake, разпространена малко преди местните избори, изобразява как тя подкрепя приятелска на Русия партия и обявява планове да подаде оставка.
Длъжностни лица в Молдова смятат, че руското правителство стои зад тази дейност. С президентските избори тази година дълбоките фалшификати целят „да подкопаят доверието в нашия изборен процес, кандидати и институции – но също така да подкопаят доверието между хората“, каза Олга Роска, съветник на Санду. Руското правителство отказа да коментира тази история.
Китай също беше обвинен, че въоръжава генеративния AI за политически цели.
В Тайван, самоуправляващ се остров, който Китай твърди, че е свой, AI deepfake привлече вниманието по-рано тази година, като предизвика опасения за Намеса на САЩ в местната политика.
Фалшивият клип, разпространяван в TikTok, показва американския представител Роб Уитман, заместник-председател на Комитета по въоръжените сили на Камарата на представителите на САЩ, обещаващ по-силна военна подкрепа на САЩ за Тайван, ако кандидатите на действащата партия бъдат избрани през януари.
Уитман обвини Китайската комунистическа партия, че се опитва да се намеси в политиката на Тайван, като каза, че използва TikTok – китайска компания – за разпространение на „пропаганда“.
Говорител на китайския външното министерство Уанг Уенбин каза, че неговото правителство не коментира фалшиви видеоклипове и че се противопоставя на намесата във вътрешните работи на други страни. Изборите в Тайван, подчерта той, „са местна афера на Китай.“
ЗАМЪГВАНЕ НА РЕАЛНОСТТА
Дълбоките фалшификати само с аудио са особено трудни за проверка, защото за разлика от снимките и видеоклиповете им липсват издайнически признаци за манипулирано съдържание.
В Словакия, друга страна, засенчена от руското влияние, аудиоклипове, наподобяващи гласа на лидера на либералната партия, бяха широко разпространени в социалните медии само дни преди парламентарните избори. Клиповете предполагаемо го заснеха да говори за повишаване на цените на бирата и манипулиране на вота.
Разбираемо е, че гласоподавателите може да се хванат на измамата, каза Айдер, защото хората са „много повече свикнали да съдят с очите си, отколкото с ушите си.“
В САЩ автоматичните обаждания имитиращият се президент на САЩ Джо Байдън призова гласоподавателите в Ню Хемпшир да се въздържат от гласуването на първичните избори през януари. По-късно обажданията бяха проследени до политически консултант, който каза, че се опитва да популяризира опасностите от AI deepfakes.
В по-бедните страни, където медийната грамотност изостава, дори нискокачествените AI фалшификати могат да бъдат ефективни.
Такъв беше случаят миналата година в Бангладеш, където опозиционният депутат Румиен Фархана — явен критик на управляващата партия — беше фалшиво изобразен облечен в бикини. Вирусният видеоклип предизвика възмущение в консервативната мюсюлманска нация.
„Те вярват на всичко, което видят във Facebook“, каза Фархана.
Експертите са особено загрижени за предстоящите избори в Индия, най-голямата демокрация в света и където социалните медийни платформи са благодатна почва за дезинформация.
ПРЕДИЗВИКАТЕЛСТВО КЪМ ДЕМОКРАЦИЯТА
Някои политически кампании използват генеративен AI, за да укрепят имиджа на своя кандидат.
В Индонезия екипът, който ръководи президентската кампания на Прабово Субианто, внедри просто мобилно приложение, за да изгради по-дълбока връзка с поддръжниците в огромната островна държава . Приложението даде възможност на гласоподавателите да качват снимки и да създават генерирани от AI изображения на себе си със Subianto.
Тъй като видовете AI deepfakes се умножават, властите по света се борят да измислят предпазни огради.
Европейският съюз вече изисква социалните медийни платформи да намалят риска от разпространение на дезинформация или „изборна манипулация“. Той ще наложи специално етикетиране на AI deepfakes от следващата година, твърде късно за парламентарните избори в ЕС през юни. Все пак останалият свят е много по-назад.
Най-големите технологични компании в света наскоро — и доброволно — подписаха пакт за предотвратяване на AI инструментите да осуетят изборите. Например, компанията, която притежава Instagram и Facebook, заяви, че ще започне да маркира deepfakes, които се появяват на нейните платформи.
Но deepfakes са по-трудни за овладяване на приложения като услугата за чат Telegram, която не е подписала доброволен пакт и използва криптирани чатове, които могат да бъдат трудни за наблюдение.
Някои експерти се притесняват, че усилията за овладяване на AI deepfakes може да имат непредвидени последици.
Добронамерените правителства или компании могат да стъпчат за понякога „много тънката“ граница между политическия коментар и „нелегитимния опит за опетняване на кандидат“, каза Тим Харпър, старши политически анализатор в Центъра за демокрация и технологии във Вашингтон.
Основно генеративно ИИ службите имат правила за ограничаване на политическата дезинформация. Но експертите казват, че остава твърде лесно да се надхитрят ограниченията на платформите или да се използват алтернативни услуги, които нямат същите предпазни мерки.
Дори и без лоши намерения, нарастващото използване на AI е проблематично. Много популярни чатботове, задвижвани от изкуствен интелект, все още бълват невярна и подвеждаща информация, която заплашва да лиши избирателите.
И софтуерът не е единствената заплаха. Кандидатите биха могли да се опитат да измамят гласоподавателите, като твърдят, че реални събития, представящи ги в неблагоприятна светлина, са произведени от AI.
„Свят, в който всичко е подозрително – и така всеки може да избере в какво да вярва – също е свят, който е наистина предизвикателство за една процъфтяваща демокрация“, каза Лиза Репел, изследовател в Международната фондация за избирателни системи в Арлингтън, Вирджиния.
__
Суенсън съобщи от Ню Йорк. Авторите на Associated Press Джулхас Алам в Дака, Бангладеш, Крутика Пати в Ню Делхи, Хуейжонг Ву в Банкок, Една Тариган в Джакарта, Индонезия, Дейк Канг в Пекин и Стивън Макграт в Букурещ, Румъния, допринесоха за този доклад.
__
Асошиейтед прес получава подкрепа от няколко частни фондации, за да подобри своето обяснително отразяване на изборите и демокрацията. Вижте повече за инициативата за демокрация на AP тук. AP е единствено отговорен за цялото съдържание.
